ปืนเอเค-47 ได้รับการออกแบบครั้งแรกในปี พ.ศ. 2484 และพัฒนาจนเป็นรูปแบบมาตรฐานในปี พ.ศ. 2490 เขาก็เห็นว่าไม่ยุติธรรมเลยที่กองทัพนาซีเยอรมันได้ใช้อาวุธปืนอัตโนมัติอันทันสมัยมากมายหลายรุ่น ตั้งแต่ปืนเล็กยาว ปืนกลมือเอ็มพี 40 ปืนกลเบาเอ็มจี 34 และปืนกลเบาเอ็มจี 42 รวมทั้งรถถังยานเกราะอีกมากมาย ในขณะที่กองทัพโซเวียตกลับมีเพียงปืนเล็กยาวโมซิน-นากองท์อันคร่ำครึมาตั้งแต่สมัยก่อนสงครามโลกครั้งที่ 1 รวมไปถึงปืนไรเฟิลกึ่งอัตโนมัติเอสวีที-40กับปืนกลมือ PPSH-41 เท่านั้น ส่วนปืนกลระดับหมู่ก็มีเพียงปืนกลเดกท์ยาร์ยอฟ โดยรถถังยานเกราะกับยุทโธปกรณ์ต่างๆของกองทัพโซเวียตในขณะนั้น ถ้าไม่เป็นของเก่าตกค้างมาจากช่วงสงครามโลกครั้งที่2ส่วนมากก็อยู่ในสภาพเก่าและไม่พร้อมใช้เนื่องจากขาดแคลนงบประมาณซ่อมแซม

ต่อมาภายหลังสงครามโลกครั้งที่ 2 สงบลง กองทัพฝ่ายสัมพันธมิตรต่างได้ยึดอาวุธและเทคโนโลยีทางการทหารของนาซีเยอรมันไปเป็นต้นแบบในการผลิตอาวุธของตนเอง โดยคาลาชนิคอฟเองก็ได้นำรูปทรงของปืนเล็กยาวอัตโนมัติ StG 44 และเอสเคเค-45มาใช้เป็นแบบ ส่วนระบบกลไกบางส่วนนำมาจากปืนเอ็ม1กาแรนด์(M1 Garand )รวมทั้งได้นำกระสุนขนาด 7.62x54 mm. R และ 7.92x33 mm. Kurz มาเป็นต้นแบบในการพัฒนา โดยได้มีการออกแบบและพัฒนาในเรื่องของกระสุนก่อน ซึ่งกระสุนมาตรฐานของกองทัพโซเวียตในขณะนั้นคือกระสุนขนาด 7.62x54 ม.ม.ซึ่งประจำการมาตั้งแต่ปีพ.ศ. 2434 โดยได้นำกระสุนขนาด 7.62x41 ม.ม.ที่มาจากโครงการAS-44มาใช้ทดสอบและมีการพัฒนาปืนไรเฟิลอัตโนมัติขึ้นมาใช้กับกระสุนขนาดนี้ด้วยคือปืนเอเค-46 ซึ่งยังมีรูปทรงคล้ายกับปืนเอสทีจี 44 อยู่มาก แต่เนื่องจากประสิทธิภาพของปืนและกระสุนไม่ดีเท่าที่ควรนักจึงได้มีการปรับปรุงปืนและกระสุนใหม่อีกครั้ง โดยมีการปรับปรุงกระสุนก่อนจนเป็นกระสุนขนาด 7.62x39 ม.ม.ซึ่งได้นำมาใช้ครั้งแรกกับปืนไรเฟิลกึ่งอัตโนมัติเอสเคเอสหรือปืนเซกาเซ ซึ่งเป็นที่รู้จักกันเป็นอย่างดีก่อน พร้อมทั้งนำปืนไรเฟิลอัตโนมัติเอเค-46 มาปรับปรุงระบบกลไกและรูปทรงอีกครั้ง โดยได้เอารูปทรงของปืนเอสเคเอสเข้ามาร่วมในการออกแบบด้วย จนออกมาเป็นปืนเอเค-47 ที่มีรูปทรงอย่างที่เห็นในปัจจุบัน